第五章作业

5.1 复习与思考题

5.1.1 高斯消去法选主元的原因

• 因为高斯消去法需要用主元素 $a_{ii}^{(i)}$$a_{ii}^{(i)}$ 作为除数，为了避免除零错误，或者除以较小数使得误差较大，因此需要选取主元.

• 当系数矩阵 $\mathit{A}$$\bm A$ 对称正定 或者 严格对角占优 时，不需要选取主元，因为具有较小的增长因子.

5.1.2 高斯消去法与 LU 分解的关系

1. 高斯消去法与 LU 分解的关系

   1. 先不考虑选主元的方法，实际上将方程组 $\mathit{A}\mathit{x}=\mathit{b}$$\bm A \bm x = \bm b$ 变化为 ${\mathit{L}}^{-1}\mathit{A}\mathit{x}={\mathit{L}}^{-1}\mathit{b}$$\bm L\inv \bm A \bm x = \bm L\inv \bm b$，其中 ${\mathit{L}}^{-1}$$\bm L\inv$ 为单位下三角矩阵，${\mathit{L}}^{-1}\mathit{A}$$\bm L\inv \bm A$ 为上三角矩阵. 从另一个角度去看，即把矩阵唯一分解为了 $\mathit{A}=\mathit{L}\mathit{U}$$\bm A = \bm L \bm U$.

   2. 对于选主元的高斯消去法与 LU 分解，行变换可看为左乘置换矩阵，即 $\mathit{P}\mathit{A}=\mathit{L}\mathit{U}$$\bm P \bm A = \bm L \bm U$.

2. 解线性方程组的不同点

   1. 高斯消去法同时处理 $\mathit{A}$$\bm A$ 和 $\mathit{b}$$\bm b$，而 LU 分解先分解 $\mathit{A}=\mathit{L}\mathit{U}$$\bm A = \bm L \bm U$，再计算 ${\mathit{U}}^{-1}{\mathit{L}}^{-1}\mathit{b}$$\bm U\inv \bm L\inv \bm b$.

   2. LU 分解并没有直接减少计算量，但求解多个线性方程组时，可以反复利用分解结果，从而简化计算. 并且需要的存储空间较小.

3. $\mathit{A}$$\bm A$ 需要非奇异.

5.1.3 Cholesky 分解的优点

对称正定矩阵可使用 Cholesky 分解，它具有如下优点：

1. 数值稳定.

2. 计算量小.

3. 存储量小.

5.1.4 平方根求解的条件与性能

1. 系数矩阵对称正定时可用平方根法求解.

2. 分解过程中 $l_{jk}$$l_{jk}$ 的数量级不会增长，并且对家元素恒为正数，因此数值稳定.

5.1.5 追赶法求解的条件与性能

1. 对角占优的三对角矩阵可用追赶法求解.

2. 追赶法的计算过程中元素数量级与舍入误差不会发生巨大增长，因此数值稳定.

5.1.6 向量范数与常用的向量范数

1. 向量范数的定义

   1. 非负性：$\Vert \mathit{x}\Vert \ge 0$$\norm\big{\bm x} \ge 0$ 当且仅当 $\mathit{x}=\mathbf{0}$$\bm x = \bm 0$ 时取等.

   2. 齐次性：$\mathrm{\forall }\alpha \in \mathbb{C}:\Vert \alpha \mathit{x}\Vert =\left|\alpha \right|\cdot \Vert \mathit{x}\Vert$$\forall \alpha \in \C \colon \norm\big{\alpha \bm x} = \vqty{\alpha} \cdot \norm\big{\bm x}$.

   3. 三角不等式：$\Vert {\mathit{x}}_1+{\mathit{x}}_2\Vert \le \Vert {\mathit{x}}_1\Vert +\Vert {\mathit{x}}_2\Vert$$\norm \big{\bm x_1 + \bm x_2} \le \norm\big{\bm x_1} + \norm\big{\bm x_2}$.

2. 常用的向量范数

   1. $p-$$p-$范数：$\Vert \mathit{x}{\Vert }_p={\left({\displaystyle \sum _{i=1}^n{\left|x_i\right|}^p}\right)}^{\frac{1}{p}},p\ge 1$$\norm\big{\bm x}_p = \pqty{\insum \vqty{x_i}^p}^\tfrac{1}{p}, p \ge 1$.

   2. $1-$$1-$范数：$\Vert \mathit{x}{\Vert }_1={\displaystyle \sum _{i=1}^n\left|x_i\right|}$$\norm\big{\bm x}_1 = \insum \vqty{x_i}$.

   3. $2-$$2-$范数：$\Vert \mathit{x}{\Vert }_2=\sqrt{(\mathit{x},\mathit{x})}$$\norm\big{\bm x}_2 = \sqrt{(\bm x, \bm x)}$.（欧氏范数）

   4. $\mathrm{\infty }-$$\infty-$范数：$\Vert \mathit{x}{\Vert }_{\mathrm{\infty }}={\displaystyle \underset{1\le i\le n}{max}\left|x_i\right|}$$\norm\big{\bm x}_\infty = \d\max_{1 \le i \le n} \vqty{x_i}$.（最大范数）

   5. 加权范数：$\Vert \mathit{x}{\Vert }_{\mathit{W}}=\Vert \mathit{W}\mathit{x}\Vert ,\mathit{W}\in {\mathbb{R}}^{n\times n}$$\norm\big{\bm x}_\bm W = \norm\big{\bm W \bm x}, \bm W \in \R^{n \cp n}$.

5.1.7 矩阵范数与算子范数

1. 矩阵范数的定义

   1. 正定条件：$\Vert \mathit{A}\Vert \ge 0$$\Norm{\bm A} \ge 0$ 当且仅当 $\mathit{A}=\mathbf{0}$$\bm A = \bm 0$ 时取等.

   2. 齐次条件：$\mathrm{\forall }c\in \mathbb{R}:\Vert c\mathit{A}\Vert =\left|c\right|\cdot \Vert \mathit{A}\Vert$$\forall c \in \R \colon \Norm{c \bm A} = \vqty{c} \cdot \Norm{\bm A}$.

   3. 三角不等式：$\Vert \mathit{A}+\mathit{B}\Vert \le \Vert \mathit{A}\Vert +\Vert \mathit{B}\Vert$$\Norm{\bm A + \bm B} \le \Norm{\bm A} + \Norm{\bm B}$.

   4. 矩阵相容性：$\Vert \mathit{A}\mathit{B}\Vert \le \Vert \mathit{A}\Vert \cdot \Vert \mathit{B}\Vert$$\Norm{\bm A \bm B} \le \Norm{\bm A} \cdot \Norm{\bm B}$.

2. 算子范数：$\Vert \mathit{A}{\Vert }_v={\displaystyle \underset{\mathit{x}\ne \mathbf{0}}{max}{\displaystyle \frac{\Vert \mathit{A}\mathit{x}{\Vert }_v}{\Vert \mathit{x}{\Vert }_v}}}$$\Norm{\bm A}_v = \d\max_{\bm x \ne \bm 0} \dfrac{\Norm{\bm A \bm x}_v}{\Norm{\bm x}_v}$.

   1. 算子范数是矩阵范数

   2. 算子范数满足向量相容性：$\mathrm{\forall }x\in {\mathbb{R}}^n,\mathrm{\forall }\mathit{A}\in {\mathbb{R}}^{n\times n}:\Vert \mathit{A}\mathit{x}\Vert \le \Vert \mathit{A}\Vert \cdot \Vert \mathit{x}\Vert$$\forall x \in \R^n, \forall \bm A \in \R^{n \cp n} \colon \Norm{\bm A \bm x} \le \Norm{\bm A} \cdot \Norm{\bm x}$.

3. 常用的范数

   1. $1-$$1-$范数（列范数）$\Vert \mathit{A}{\Vert }_1={\displaystyle \underset{1\le j\le n}{max}{\displaystyle \sum _{i=1}^n\left|a_{ij}\right|}}$$\Norm{\bm A}_1 = \d\max_{1 \le j \le n} \insum \vqty{a_{ij}}$.

   2. $2-$$2-$范数（谱范数）$\Vert \mathit{A}{\Vert }_2=\sqrt{{\lambda }_{max}({\mathit{A}}^{\mathrm{T}}\mathit{A})}$$\Norm{\bm A}_2 = \sqrt{\lambda_\max(\bm A\trans \bm A)}$.

   3. $\mathrm{\infty }-$$\infty-$范数（行范数）$\Vert \mathit{A}{\Vert }_{\mathrm{\infty }}={\displaystyle \underset{1\le i\le n}{max}{\displaystyle \sum _{j=1}^n\left|a_{ij}\right|}}$$\Norm{\bm A}_\infty = \d\max_{1 \le i \le n} \dsum_{j=1}^n \vqty{a_{ij}}$.

列范数和行范数容易计算.

5.1.8 矩阵的条件数与方程组的病态性

1. 非奇异矩阵 $\mathit{A}$$\bm A$ 的条件数 $\mathrm{cond}(\mathit{A}{)}_v=\Vert {\mathit{A}}^{-1}{\Vert }_v\Vert \mathit{A}{\Vert }_v$$\cond(\bm A)_v = \Norm{\bm A\inv}_v \Norm{\bm A}_v$.

2. 若条件数 $\mathrm{cond}(\mathit{A}{)}_v\gg 1$$\cond(\bm A)_v \gg 1$，则线性方程组是病态的.

备注

• 常用的条件数

  • 无穷条件数：$\mathrm{cond}(\mathit{A}{)}_{\mathrm{\infty }}=\Vert {\mathit{A}}^{-1}{\Vert }_{\mathrm{\infty }}\Vert \mathit{A}{\Vert }_{\mathrm{\infty }}$$\cond(\bm A)_\infty = \Norm{\bm A\inv}_\infty \Norm{\bm A}_\infty$.

  • 谱条件数：$\mathrm{cond}(\mathit{A}{)}_2=\sqrt{{\displaystyle \frac{{\lambda }_{max}({\mathit{A}}^{\mathrm{T}}\mathit{A})}{{\lambda }_{min}(\mathit{A}{\mathit{A}}^{\mathrm{T}})}}}$$\cond(\bm A)_2 = \sqrt{\dfrac{\lambda_\max(\bm A\trans \bm A)}{\lambda_\min(\bm A \bm A\trans)}}$.

• 谱条件数的性质

  • 对称阵的谱条件数：$\mathrm{cond}(\mathit{A}{)}_2={\displaystyle \frac{max\left|\lambda \right|}{min\left|\lambda \right|}}$$\cond(\bm A)_2 = \dfrac{\max\vqty{\lambda}}{\min\vqty{\lambda}}$.

  • 正交矩阵的谱条件数：$\mathrm{cond}(\mathit{A}{)}_2=1$$\cond(\bm A)_2 = 1$.

  • 若 $\mathit{R}$$\bm R$ 正交，$\mathit{A}$$\bm A$ 非奇异，则 $\mathrm{cond}(\mathit{R}\mathit{A}{)}_2=\mathrm{cond}(\mathit{A}\mathit{R}{)}_2=\mathrm{cond}(\mathit{A}{)}_2$$\cond(\bm R \bm A)_2 = \cond(\bm A \bm R)_2 = \cond(\bm A)_2$.

• 一般的条件数的性质

  • $\mathrm{cond}(\mathit{A}{)}_v=\Vert {\mathit{A}}^{-1}{\Vert }_v\Vert \mathit{A}{\Vert }_v\ge \Vert {\mathit{A}}^{-1}\mathit{A}{\Vert }_v=1$$\cond(\bm A)_v = \Norm{\bm A\inv}_v \Norm{\bm A}_v \ge \Norm{\bm A\inv \bm A}_v = 1$.

  • $\mathrm{\forall }c\ne 0:\mathrm{cond}(c\mathit{A}{)}_v=\mathrm{cond}(\mathit{A}{)}_v$$\forall c \ne 0 \colon \cond(c \bm A)_v = \cond(\bm A)_v$.

  • $\mathrm{cond}(\mathit{A}\mathit{B})=\mathrm{cond}(\mathit{A})\mathrm{cond}(\mathit{B})$$\cond(\bm A \bm B) = \cond(\bm A) \cond(\bm B)$.

5.1.9 矩阵奇异性的判断

1. 可以，行列式为零则矩阵奇异.

2. 可以，$|\lambda (\mathit{A})|\le \rho (\mathit{A})\le \Vert \mathit{A}\Vert$$\vqty{\lambda(\bm A)} \le \rho(\bm A) \le \Norm{\bm A}$.

3. 不可以，只能说明特征值的范围广，而特征值不一定小.

4. 不可以，条件数用于判断稳定性；特征值很大时条件数可能较小.

5. 不可以，例如一个非奇异矩阵，缩放之后绝对值即可变小.

5.1.10 一些命题

1. ×，可能出现除数为零或接近于零的情况.

2. ×，对称正定只能保证特征值为正，条件数仍可能较大.

3. √，计算即得.

4. ×，唯一.

5. ×，如 $\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$$\begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$，主对角线元素全为零，但是矩阵非奇异，实际上还是正交矩阵.

6. √，这是范数的定义之一（正定条件）.

7. ×，范数为零等价于为零矩阵.

8. √，由计算公式即得.

9. ×，如 $\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)$$\begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix}$ 是良态的，但是不选主元则除数为零.

10. ×，矩阵病态是问题固有的，与算法无关.

11. √，由计算公式即得.

12. √，由定义即得.

5.2 习题

5.2.1 高斯消去法 - 对称矩阵的性质

上二式相等，故 ${\mathit{A}}_2$$\bm A_2$ 是对称矩阵.

5.2.2 高斯消去法 - 对称正定矩阵的性质

1. 由正定矩阵的定义：$\mathrm{\forall }\mathit{x}\ne \mathbf{0}:(\mathit{A}\mathit{x},\mathit{x})>0$$\forall \bm x \ne \bm 0 \colon (\bm A \bm x, \bm x) > 0$，于是 $a_{ii}=(\mathit{A}{\mathit{e}}_i,{\mathit{e}}_i)>0$$a_{ii} = (\bm A \bm e_{i}, \bm e_i) > 0$.

   备注：更直观的，$(\mathit{A}\mathit{x},\mathit{x})={\displaystyle \sum _{i,j}{a}_{ij}{x}_i{x}_j}$$(\bm A \bm x, \bm x) = \dsum_{i, j} a_{ij} x_i x_j$，而 ${\mathit{e}}_i$$\bm e_i$ 只有一项非零，即为 $a_{ii}$$a_{ii}$.

2. 对称正定矩阵

   1. 列高斯消去法得 $\left[\begin{array}{cc}{a}_{11}& \mathbf{0}\\ \mathbf{0}& {\mathit{A}}_2\end{array}\right]={\mathit{L}}_1\mathit{A}{\mathit{L}}_1^{\mathrm{T}}$$\begin{bmatrix} a_{11} & \bm 0 \\ \bm 0 & \bm A_2 \end{bmatrix} = \bm L_1 \bm A \bm L_1\trans$，

   2. 由于 ${\mathit{L}}_1$$\bm L_1$ 非奇异，$\mathrm{\forall }\mathit{x}\ne \mathbf{0}:{\mathit{L}}_1^{\mathrm{T}}\mathit{x}\ne \mathbf{0}$$\forall \bm x \ne \bm 0 \colon \bm L_1\trans \bm x \ne \bm 0$.

   3. 由 $\mathit{A}$$\bm A$ 的正定性，$\mathrm{\forall }\mathit{x}\ne \mathbf{0}:(\mathit{x},{\mathit{L}}_1\mathit{A}{\mathit{L}}_1^{\mathrm{T}}\mathit{x})=({\mathit{L}}_1^{\mathrm{T}}\mathit{x},\mathit{A}{\mathit{L}}_1^{\mathrm{T}}\mathit{x})>0$$\forall \bm x \ne \bm 0 \colon (\bm x, \bm L_1 \bm A \bm L_1 \trans \bm x) = (\bm L_1\trans \bm x, \bm A \bm L_1\trans \bm x) > 0$.

   4. 故 ${\mathit{L}}_1\mathit{A}{\mathit{L}}_1^{\mathrm{T}}$$\bm L_1 \bm A \bm L_1\trans$ 正定，而 $a_{11}>0$$a_{11} > 0$，从而 ${\mathit{A}}_2$$\bm A_2$ 也是正定的.

5.2.3 初等置换矩阵与初等下三角矩阵

展开即得.

5.2.4 Crout 分解的计算公式

Crout 分解的结果为：

于是

5.2.5 三角矩阵的计算公式

1. 求解公式

   1. 上三角矩阵：依次计算 $i=n,n-1,\cdots ,1$$i = n, n-1, \cdots, 1$.

      $$x_i=(d_i-{\displaystyle \sum _{j=i+1}^n{u}_{ij}{x}_j})/u_{ii}.$$

   2. 下三角矩阵：依次计算 $i=1,2,\cdots ,n$$i = \oneton$.

      $$x_i=(d_i-{\displaystyle \sum _{j=1}^{i-1}{u}_{ij}{x}_j})/u_{ii}.$$

2. 乘除法次数

   1. 乘法次数：$0+1+2+\cdots +(n-1)={\displaystyle \frac{n(n-1)}{2}}$$0 + 1 + 2 + \cdots + (n-1) = \dfrac{n(n-1)}{2}$，$O(n^2)$$O(n^2)$.

   2. 除法次数：$n$$n$.

   3. 加减次数：${\displaystyle \frac{n(n+1)}{2}}$$\dfrac{n(n+1)}{2}$，$O(n^2)$$O(n^2)$.

3. 逆矩阵求解公式：设 $\mathit{A}={\mathit{U}}^{-1}$$\bm A = \bm U\inv$，则 $\mathit{A}$$\bm A$ 亦为上三角矩阵.

   $$\{\begin{array}{ll}{a}_{ii}={\displaystyle \frac{1}{u_{ii}}},& i=1,2,\cdots ,n,\\ a_{ij}=-{\displaystyle \sum _{k=i+1}^j{\displaystyle \frac{u_{ik}{s}_{kj}}{u_{ii}}},}& \begin{array}{c}j=i+1,i+2,\cdots ,n,\\ i=n-1,n-2,\cdots ,1.\end{array}\end{array}$$

5.2.6 对称正定矩阵的性质

1. 若 $\mathit{A}$$\bm A$ 是对称正定矩阵，则 ${\mathit{A}}^{-1}$$\bm A\inv$ 也是对称正定矩阵.

证明

将 $\mathit{A}$$\bm A$ 转化为标准型，可可知其特征值均大于零，于是 $\mathit{A}$$\bm A$ 非奇异.

故 ${\mathit{A}}^{-1}$$\bm A\inv$ 对称. 若 $\mathit{A}\xi =\lambda \xi$$\bm A \xi = \lambda \xi$，则 ${\mathit{A}}^{-1}\xi ={\lambda }^{-1}\xi$$\bm A\inv \xi = \lambda\inv \xi$，于是 ${\mathit{A}}^{-1}$$\bm A\inv$ 正定. 证毕.

2. 若 $\mathit{A}$$\bm A$ 是对称正定矩阵，则可唯一地写为 $\mathit{A}={\mathit{L}}^{\mathrm{T}}\mathit{L}$$\bm A = \bm L\trans \bm L$.

证明

首先可分解为 $\mathit{A}={\mathit{L}}^{\prime }\mathit{D}\mathit{U}$$\bm A = \bm L' \bm D \bm U$，由对称性，${\mathit{L}}^{\prime }\mathit{D}\mathit{U}={\mathit{U}}^{\mathrm{T}}\mathit{D}{\mathit{L}}^{\prime \mathrm{T}}$$\bm L' \bm D \bm U = \bm U\trans \bm D \bm L'\trans$，由分解的唯一性，${\mathit{L}}^{\prime }={\mathit{U}}^{\mathrm{T}}$$\bm L' = \bm U\trans$，从而 $\mathit{A}={\mathit{L}}^{\prime }\mathit{D}{\mathit{L}}^{\prime \mathrm{T}}$$\bm A = \bm L' \bm D \bm L'\trans$.

由正定性，$d_1=D_1>0,d_i=D_i/D_{i-1}>0$$d_1 = D_1 > 0, d_i = D_i / D_{i-1} > 0$，从而 $\mathit{D}$$\bm D$ 的各元素大于零，从而可以分解为 $\mathit{A}=\left({\mathit{L}}^{\prime }{\mathit{D}}^{\frac{1}{2}}\right){\left({\mathit{L}}^{\prime }{\mathit{D}}^{\frac{1}{2}}\right)}^{\mathrm{T}}={\mathit{L}}^{\mathrm{T}}\mathit{L}$$\bm A = \pqty{\bm L' \bm D^\tfrac{1}{2}} \pqty{\bm L' \bm D^\tfrac{1}{2}}\trans = \bm L\trans \bm L$. 证毕.

5.2.7 列主元消去法

从而 $\det \left(\mathit{A}\right)=-66$$\det(\bm A) = -66$，并且

备注 小猪头（指我）别忘了 $r_1\leftrightarrow r_2$$r_1 \rla r_2$ 会改变正负.

5.2.8 Doolittle 分解

直接三角分解 - Doolittle 分解.

于是先求解 $\mathit{L}\mathit{y}=\mathit{b}$$\bm L \bm y = \bm b$，再求解 $\mathit{U}\mathit{x}=\mathit{y}$$\bm U \bm x = \bm y$，有

5.2.9 追赶法

首先注意到 $\mathit{A}$$\bm A$ 符合追赶法的要求.

由

有

从而

于是

备注 若用计算机计算，则可以使用书中的方法，以减少内存占用.

5.2.10 改进的平方根法

依次计算 $\mathit{L}\mathit{y}=\mathit{b},\mathit{D}{\mathit{L}}^{\mathrm{T}}\mathit{x}=\mathit{y}$$\bm L \bm y = \bm b, \bm D \bm L\trans \bm x = \bm y$，有

备注 对称正定矩阵可分解为 $\mathit{A}=\mathit{L}\mathit{D}{\mathit{L}}^{\mathrm{T}}$$\bm A = \bm L\bm D \bm L\trans$，可利用该性质简化计算.

5.2.11 LU 分解的条件

1. $D_2(\mathit{A})=0$$D_2(\bm A) = 0$，故不能分解.

   $\det \left(\mathit{A}\right)=-10$$\det(\bm A) = -10$，若交换 $r_1\leftrightarrow r_3$$r_1 \rla r_3$，则可以分解且分解唯一.

2. $D_2(\mathit{B})=0,\det \left(\mathit{B}\right)=0$$D_2(\bm B) = 0, \det(\bm B) = 0$，故不能分解，任意交换行也无法分解.

3. $D_2(\mathit{C})=1,\det \left(\mathit{C}\right)=1$$D_2(\bm C) = 1, \det(\bm C) = 1$，故可唯一分解.

5.2.12 矩阵范数的计算

1. 行范数即 $\mathrm{\infty }-$$\infty-$范数：$\Vert \mathit{A}{\Vert }_{\mathrm{\infty }}=1.1$$\Norm{\bm A}_\infty = 1.1$.

2. 列范数即 $1-$$1-$范数：$\Vert \mathit{A}{\Vert }_1=0.8$$\Norm{\bm A}_1 = 0.8$.

3. $2-$$2-$范数即谱范数：

   $$\begin{array}{rl}{\mathit{A}}^{\mathrm{T}}\mathit{A}& =\left(\begin{array}{cc}0.6& 0.1\\ 0.5& 0.3\end{array}\right)\left(\begin{array}{cc}0.6& 0.5\\ 0.1& 0.3\end{array}\right)=\left(\begin{array}{cc}0.37& 0.33\\ 0.33& 0.34\end{array}\right)\\ \Vert \mathit{A}{\Vert }_2& =\sqrt{{\lambda }_{max}({\mathit{A}}^{\mathrm{T}}\mathit{A})}=\sqrt{0.355+\sqrt{{0.355}^2-0.37\ast 0.34+{0.33}^2}}=0.827853.\end{array}$$

4. $\mathrm{F}-$$\rm F-$范数：$\Vert \mathit{A}{\Vert }_{\mathrm{F}}={\left({\displaystyle \sum _{i,j}{a}_{ij}^2}\right)}^{\frac{1}{2}}=0.842615$$\Norm{\bm A}_\rm F = \pqty{\dsum_{i, j} a_{ij}^2}^\tfrac{1}{2} = 0.842615$.

备注 对于 $\begin{array}{c}\mathit{A}=\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)\end{array}$$\bm A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}$，有

5.2.13 范数的大小关系

1. $\Vert \mathit{x}{\Vert }_{\mathrm{\infty }}\le \Vert \mathit{x}{\Vert }_1\le n\Vert \mathit{x}{\Vert }_{\mathrm{\infty }}$$\Norm{\bm x}_\infty \le \Norm{\bm x}_1 \le n \Norm{\bm x}_\infty$.

证明 ${\displaystyle \underset{1\le i\le n}{max}\left|x_i\right|\le {\displaystyle \sum _{i=1}^n\left|x_i\right|\le n\underset{1\le i\le n}{max}\left|x_i\right|}}$$\d \max_{1 \le i \le n} \vqty{x_i} \le \insum \vqty{x_i} \le n \max_{1 \le i \le n} \vqty{x_i}$，证毕.

2. ${\displaystyle \frac{1}{\sqrt{n}}}\Vert \mathit{A}{\Vert }_{\mathrm{F}}\le \Vert \mathit{A}{\Vert }_2\le \Vert \mathit{A}{\Vert }_{\mathrm{F}}$$\dfrac{1}{\sqrt n} \Norm{\bm A}_\rm F \le \Norm{\bm A}_2 \le \Norm{\bm A}_\rm F$.

证明 ${\displaystyle {\displaystyle \frac{1}{n}}{\displaystyle \sum _{i=1}^n{\lambda }_i\le \underset{1\le i\le n}{max}{\lambda }_i\le {\displaystyle \sum _{i=1}^n{\lambda }_i}}}$$\d \dfrac{1}{n} \insum \lambda_i \le \max_{1 \le i \le n} \lambda_i \le \insum \lambda_i$，证毕.

5.2.14 向量的加权范数

注意 $\mathit{P}\in {\mathbb{R}}^{n\times n}$$\bm P \in \R^{n \cp n}$ 非奇异，

1. 正定条件：$\Vert \mathit{x}{\Vert }_{\mathit{P}}=0\iff \Vert \mathit{P}\mathit{x}\Vert =0\iff \mathit{P}\mathit{x}=\mathbf{0}\iff \mathit{x}=\mathbf{0}$$\Norm{\bm x}_\bm P = 0 \RLA \Norm{\bm P \bm x} = 0 \RLA \bm P \bm x = \bm 0 \RLA \bm x = \bm 0$.

2. 齐次条件：$\mathrm{\forall }c\in \mathbb{R}:\Vert c\mathit{x}{\Vert }_{\mathit{P}}=\Vert c\mathit{P}\mathit{x}\Vert =c\Vert \mathit{P}\mathit{x}\Vert =c\Vert \mathit{x}{\Vert }_{\mathit{P}}$$\forall c \in \R \colon \Norm{c \bm x}_\bm P = \Norm{c \bm P \bm x} = c \Norm{\bm P \bm x} = c \Norm{\bm x}_\bm P$.

3. 三角不等式：$\Vert {\mathit{x}}_1+{\mathit{x}}_2{\Vert }_{\mathit{P}}=\Vert \mathit{P}{\mathit{x}}_1+\mathit{P}{\mathit{x}}_2\Vert \le \Vert {\mathit{x}}_1{\Vert }_{\mathit{P}}+\Vert {\mathit{x}}_2{\Vert }_{\mathit{P}}$$\Norm{\bm x_1 + \bm x_2}_\bm P = \Norm{\bm P \bm x_1 + \bm P \bm x_2} \le \Norm{\bm x_1}_\bm P + \Norm{\bm x_2}_\bm P$.

证毕.

5.2.15 由内积定义的向量范数

1. 正定条件：$\Vert \mathit{x}{\Vert }_{\mathit{A}}=0\iff (\mathit{A}\mathit{x},\mathit{x})=0\iff \mathit{x}=\mathbf{0}$$\Norm{\bm x}_\bm A = 0 \RLA (\bm A \bm x, \bm x) = 0 \RLA \bm x = \bm 0$.

2. 齐次条件：$\mathrm{\forall }c\in \mathbb{R}:\Vert c\mathit{x}{\Vert }_{\mathrm{A}}=(c\mathit{A}\mathit{x},c\mathit{x}{)}^{\frac{1}{2}}=c\Vert \mathit{x}{\Vert }_{\mathit{A}}$$\forall c \in \R \colon \Norm{c \bm x}_\rm A = (c \bm A \bm x, c \bm x)^\frac{1}{2} = c \Norm{\bm x}_\bm A$.

3. 三角不等式：

5.2.16 逆矩阵的无穷范数

证明

证毕.

5.2.17 无穷条件数

于是在 $\left|\lambda \right|={\displaystyle \frac{2}{3}}$$\vqty{\lambda} = \dfrac{2}{3}$ 处取到最小值.

5.2.18 条件数的计算

1. 无穷条件数：$\mathrm{cond}(\mathit{A}{)}_{\mathrm{\infty }}={199}^2=39601$$\cond(\bm A)_\infty = 199^2 = 39601$.

2. 谱条件数：注意到 $\mathit{A}$$\bm A$ 是对称矩阵，有

   $$\begin{array}{rl}\mathrm{cond}(\mathit{A}{)}_2& =\sqrt{{\displaystyle \frac{{\lambda }_{max}({\mathit{A}}^{\mathrm{T}}\mathit{A})}{{\lambda }_{min}(\mathit{A}{\mathit{A}}^{\mathrm{T}})}}}=\sqrt{{\displaystyle \frac{{\lambda }_{max}({\mathit{A}}^2)}{{\lambda }_{min}({\mathit{A}}^2)}}}=\left|{\displaystyle \frac{{\lambda }_{max}}{{\lambda }_{min}}}\right|\\ & =\left|{\displaystyle \frac{99+\sqrt{{99}^2-9800+{99}^2}}{99-\sqrt{{99}^2-9800+{99}^2}}}\right|\approx 39206.\end{array}$$

5.2.19 正交矩阵的谱条件数

证明 由 ${\mathit{A}}^{\mathrm{T}}\mathit{A}=\mathit{E}$$\bm A\trans \bm A = \bm E$ 即得.

5.2.20 矩阵乘积的条件数

证明.

5.2.21 谱条件数的性质

设 $\mathit{A}\in {\mathbb{R}}^{n\times n}$$\bm A \in \R^{n \cp n}$ 非奇异，则

1. ${\mathit{A}}^{\mathrm{T}}\mathit{A}$$\bm A\trans \bm A$ 为对称正定矩阵.

2. $\mathrm{cond}(\mathit{A}{)}_2=\sqrt{\mathrm{cond}({\mathit{A}}^{\mathrm{T}}\mathit{A}{)}_2}$$\cond(\bm A)_2 = \sqrt{\cond(\bm A\trans \bm A)_2}$.

证明

1. 对称性：${\left({\mathit{A}}^{\mathrm{T}}\mathit{A}\right)}^{\mathrm{T}}={\mathit{A}}^{\mathrm{T}}\mathit{A}$$\pqty{\bm A\trans \bm A}\trans = \bm A\trans \bm A$.

2. 正定性：$\mathrm{\forall }\mathit{x}\ne \mathbf{0}:{\mathit{x}}^{\mathrm{T}}{\mathit{A}}^{\mathrm{T}}\mathit{A}\mathit{x}=(\mathit{A}\mathit{x},\mathit{A}\mathit{x})\ge 0$$\forall \bm x \ne \bm 0 \colon \bm x\trans \bm A\trans \bm A \bm x = (\bm A \bm x, \bm A \bm x) \ge 0$.

3. $\begin{array}{rl}\mathrm{cond}({\mathit{A}}^{\mathrm{T}}\mathit{A}{)}_2& =\sqrt{{\displaystyle \frac{{\lambda }_{max}(({\mathit{A}}^{\mathrm{T}}\mathit{A}{)}^2)}{{\lambda }_{min}(({\mathit{A}}^{\mathrm{T}}\mathit{A}{)}^2)}}}=\sqrt{{\displaystyle \frac{{\lambda }_{max}{\left({\mathit{A}}^{\mathrm{T}}\mathit{A}\right)}^2}{{\lambda }_{min}{\left({\mathit{A}}^{\mathrm{T}}\mathit{A}\right)}^2}}}=\mathrm{cond}(\mathit{A}{)}_2^2\end{array}$$\begin{align} \cond(\bm A\trans \bm A)_2 &= \sqrt{\dfrac{ \lambda_\max \pqty{ (\bm A\trans \bm A)^2 } }{ \lambda_\min \pqty{ (\bm A\trans \bm A)^2 } }} = \sqrt{\dfrac{ \lambda_\max \pqty{ \bm A\trans \bm A }^2 }{ \lambda_\min \pqty{ \bm A\trans \bm A }^2 }} = \cond(\bm A)_2^2 \end{align}$.

证毕.